Conceptualizing Embeddings: Sparse Disentanglement for Vision-Language Models
视觉-语言模型嵌入的稀疏解耦与概念解释
🧭 多模态嵌入的可解释性
Jagiellonian University, Kraków, Poland · Warsaw University of Technology, Warsaw, Poland
提出CEDAR，通过可逆旋转+top-k稀疏瓶颈，不扩大维度实现多模态嵌入的稀疏解耦与概念对齐
📌 工作参考价值（3 点）
- 主要学术贡献，针对视觉-语言模型可解释性，业务可直接迁移的工程方法较少。
- 可借鉴旋转+top-k稀疏瓶颈的思路，对电商多模态商品向量（如CLIP嵌入）做后处理，将语义属性轴对齐，便于运营理解与人工调控，例如将某维度对应“颜色”或“风格”概念。
- 方法保持维度不变、可逆，避免SAE的冗余与几何失真，适合线上对延迟敏感的场景，可给已部署模型附加可解释性。